пр.н.е. решението по „халюцинирани“ фалшиви съдебни дела с изкуствен интелект може да създаде прецедент, казват експерти
Експерти от индустрията казват, че висящо дело B.C. Делото във Върховния съд може да даде яснота и може би дори да създаде прецедент за използването на AI модели като ChatGPT в правната система на Канада.
Шумният случай включва фалшива съдебна практика, изготвена от ChatGPT и за която се твърди, че е представена на съда от адвокат в семеен спор с висока нетна стойност. Смята се, че това е първото по рода си в Канада, въпреки че подобни случаи се появиха в Съединените щати.
„Сериозно е в смисъл, че ще създаде прецедент и ще даде някои насоки и ще видим по няколко начина,” Джон Фестингер, K.C., помощник-професор в Юридическия факултет Алард на UBC, каза пред Global News.
„Има съдебно производство около разходите... Другата част от това е възможността за дисциплина от Юридическото общество по отношение на действията на този адвокат и въпроси около... правото, каква е степента на технологична компетентност, която се очаква да имат адвокатите, така че някои от това може да станат по-ясни около и този случай.“
Адвокатът Чонг Ке, за когото се твърди, че е подал фалшивите случаи, в момента е изправен пред разследване от Юридическото общество на Британска Колумбия.
Вземете последните национални новини. Изпраща се на вашия имейл, всеки ден.Противоположните адвокати по делото, което тя води, също я съдят лично за специални разходи, като твърдят, че трябва да бъдат компенсирани за работата, необходима за разкриване на факта, че фалшивите случаи са били почти вписани в съдебния регистър.
Адвокатът на Ке каза на съда, че тя е допуснала „честна грешка“ и че няма предишен случай в Канада, където да са присъдени специални разходи при подобни обстоятелства.
Ке се извини на съда, като каза, че не е знае, че чатботът с изкуствен интелект е ненадежден и тя не провери дали случаите действително съществуват.
Асистентът по компютърни науки на UBC Веред Шварц каза, че обществеността не изглежда достатъчно добре информирана за потенциалните ограничения на нови AI инструменти.
„Има голям проблем с ChatGPT и други подобни AI модели, езикови модели: проблемът с халюцинациите“, каза тя.
„Тези модели генерират текст, който изглежда много като човек, изглежда много фактически правилно, компетентно, последователно, но всъщност може да съдържа грешки, защото тези модели не са били обучени на никаква представа за истината, те просто са били обучени да генерират текст, който изглежда като човек, изглежда като текст, който четат.”
Собствените условия за ползване на ChatGPT предупреждават потребителите, че генерираното съдържание може да не е точно в някои ситуации.
Но Шварц вярва, че компаниите, които произвеждат инструменти като ChatGPT, трябва да вършат по-добра работа, като съобщават за недостатъците си и че те не трябва да се използват за чувствителни приложения.
Тя каза, че правната система също се нуждае от повече правила за това как се използват такива инструменти и докато не бъдат въведени предпазни средства най-доброто решение вероятно е просто да ги забраните.
„Дори ако някой ги използва само за да помогне с писането, той трябва да носи отговорност за крайния резултат и трябва да го провери и да се увери, че системата не въведе някои фактически грешки“, каза тя.
„Освен ако всички участващи не проверяват фактите на всяка стъпка от процеса, тези неща може да останат под радара, може вече да са се случили.“
Фестингер каза, че образованието и обучението на адвокатите за това за какво трябва и за какво не трябва да се използват инструментите на ИИ е от решаващо значение.
Но той каза, че остава с надежда за технологията. Той вярва, че по-специализирани инструменти за изкуствен интелект, които се занимават конкретно със закона и са тествани за точност, могат да бъдат налични през следващото десетилетие – нещо, което според него би било чисто положително за обществеността, когато става въпрос за достъп до правосъдие.
Б.К. Очаква се съдията от Върховния съд Дейвид Масухара да вземе решение относно отговорността на Ке за разноски в рамките на следващите две седмици.
— с файлове от Rumina Daya
